Integrating Chain-of-Thought into Generative Retrieval: A Preliminary Study
将思维链融入生成式检索:ThinkGR 初步探索
🧭 生成式检索 · Chain-of-Thought 集成 ★ 深度解读
Shandong University, Qingdao, China
首次在生成式检索中实现思考与文档ID生成交错进行,通过混合解码和检索奖励的强化学习取得SOTA。
📌 工作参考价值(4 点)
- 思考-检索交错范式:在生成式推荐中,可让模型先生成推理步骤(如需求拆解),再生成候选 item ID,缓解复杂意图与商品之间的语义鸿沟,适用于多步推理的购物场景。
- 混合解码策略:使用 FM-index 等约束解码保证生成的 item ID 合法,避免推荐不存在的商品,同时保留自由文本思考的灵活性,实现端到端可靠生成。
- 检索奖励驱动的思考优化:用业务指标(如点击率、转化率)作为奖励信号,通过 KTO 等 RL 方法优化模型思考质量,无需人工标注思考步骤,适合线上持续学习。
- 结构化标识表示:以知识三元组作为文档/商品 ID,增强关系推理能力,可借鉴为商品属性三元组,提升生成式推荐中的可解释性与检索效率。